Đô sát viện nguyên đã được lập vào đời Tần Trung Quốc và tại Việt Nam, được áp dụng vào thời Nguyễn.

Năm Gia Long 3 (1804), nhà Nguyễn khảo quan chế thời Minh Thanh Trung Quốc, đặt các chức quan phụ trách công tác giám sát tối cao là Đô ngự sử và Phó Đô ngự sử phụ trách Ngự sử đài, tiền thân của Đô sát viện.

Năm Minh Mạng 8 (1827), đặt thêm các Cấp sự trung lục khoa và Giám sát ngự sử tại các đạo. Năm Minh Mạng 13 (1832), Đô sát viện được chính thức thành lập là một viện và trở thành một cơ quan giám sát tối cao với đầy đủ các quy chế kiểm sát các cơ quan hành chính trung ương với Lục khoa và kiểm sát các cơ quan hành chính địa phương, với Giám sát ngự sử các đạo. Bắt đầu từ thời này, Đô sát viện, là một cơ quan hội đồng, cùng với Đại lý tự (cơ quan xét xử tối cao) và bộ Hình nằm trong Tam pháp ty, tức là hệ thống tư pháp của triều đình nhà Nguyễn.

Thời Nguyễn, quan Thông chính sứ, Đại lý tự khanh, Đô sát viện Hữu đô ngự sử, và 6 vị Thượng thư Lục Bộ, hợp thành Cửu khanh của triều đình nhà Nguyễn.